12 · REAL USERS → KPI → IMPROVEMENT → ASSET

12. Bootcamp·KPI
검증 가이드

바이브코딩으로 개발한 MVP가 실제 현장 문제를 해결하는지, 사용자가 쓸 수 있는지, AI 판단이 신뢰 가능한지, 성과가 KPI로 입증되는지 검증하는 실행 가이드입니다.

1. Bootcamp의 정의

YABOAZ에서 Bootcamp는 단순 교육이나 시연 행사가 아닙니다. 고객, 현장 사용자, FDE, 개발자, 승인자, 의사결정자가 함께 MVP를 실제 시나리오로 테스트하고 데이터를 수집하며 개선 우선순위를 결정하는 압축 검증 실험입니다.

실제 사용자현장 사용자가 직접 조작합니다.
실제 시나리오업무에서 반복되는 상황을 재현합니다.
AI 평가판단 정확도뿐 아니라 근거·신뢰도·예외를 봅니다.
Human Gate승인 속도·품질·책임을 평가합니다.
기준선 비교기존 방식과 MVP 결과를 비교합니다.
KPI 판정속도·품질·사용성·운영 지표를 측정합니다.
개선 백로그피드백을 우선순위로 전환합니다.
자산화 결정검증된 규칙·화면·워크플로를 자산화합니다.
Bootcamp는 MVP를 보여주는 자리가 아니라, 현장 실행 가능성을 입증하는 자리입니다.
MVP → 실제 사용자 테스트 → AI 판단 평가 → Human Gate 평가 → KPI 측정 → 개선 → 자산화 판단
Bootcamp Validation Blueprint page 1
Bootcamp Validation Blueprint page 2

2. 12단계의 위치와 핵심 산출물

01 온보딩 → 02 Evidence → 03 2A4 → 04 Discovery → 05 인터뷰 → 06 온톨로지 → 07 AI 판단 → 08 Agent → 09 워크플로 → 10 화면·데이터 → 11 MVP → 12 Bootcamp → 13 자산화

12단계는 “만든 것”을 “검증된 것”으로 바꾸는 단계입니다. 이 단계를 통과해야 MVP가 다음 프로젝트에 적용할 플랫폼 자산 후보가 됩니다.

핵심 산출물

실행계획서일정·참여자·범위·시나리오
기준선 측정표기존 처리시간·오류·만족도
테스트 시나리오실제 업무 상황과 성공 기준
관찰 기록혼란·질문·오류·우회 행동
AI 평가표정확도·근거·신뢰도·수정률
Human Gate 평가승인 속도·품질·책임
KPI·개선표전후 비교와 우선순위
검증 보고서·자산 카드통과 판정과 재사용 후보
Bootcamp Validation Blueprint page 3
Bootcamp Validation Blueprint page 4

3. Bootcamp 검증 전체 흐름 10단계

01

검증 목적 정의

핵심 문제, 기존 방식 대비 개선, AI 품질, Human Gate, 예외와 통과 조건을 정합니다.

02

참여자와 역할 구성

고객 책임자·현장 사용자·승인자·데이터·시스템·FDE·개발자·평가자를 배치합니다.

03

사전 기준선 측정

기존 처리시간·판단시간·승인시간·오류·우회 업무·만족도를 측정합니다.

04

테스트 시나리오 설계

정상·예외·데이터 부족·승인 지연·실행 오류를 실제 업무 흐름으로 구성합니다.

05

MVP 사용 테스트

FDE는 설명자가 아니라 관찰자로 참여하고 사용자의 행동·질문·막힘을 기록합니다.

06

AI 판단 품질 평가

정확도·근거 명확성·신뢰도 적절성·일관성·보수성·예외 대응을 평가합니다.

07

Human Gate 평가

승인자·근거·선택지·승인 시간·대체 승인·책임 기록을 확인합니다.

08

KPI 측정

기준선과 MVP를 비교해 속도·품질·사용성·신뢰·운영·자산화 지표를 계산합니다.

09

피드백·개선 우선순위

기능·화면·데이터·AI·워크플로·정책·교육·자산화 후보로 분류합니다.

10

통과·자산화 판단

통과·조건부 통과·재검증·보류·실패를 판정하고 다음 조치를 확정합니다.

Bootcamp Validation Blueprint page 5
Bootcamp Validation Blueprint page 6

4. 기준선·참여자·테스트 시나리오

참여자와 역할

역할책임
고객 책임자검증 목적·통과 기준·최종 판정 승인
현장 사용자MVP 실제 사용·업무 피드백
승인자Human Gate 승인·반려·보류 테스트
데이터·시스템 담당자데이터 정확성·연동·권한·오류 확인
FDE관찰·기록·문제 구조화·개선 도출
개발자·평가자오류 수정·KPI 측정·검증 보고

기준선 측정표

KPI기존 방식측정 방법
위험도 판단 시간8분시나리오 시작부터 판단 완료까지
승인 소요시간5분승인 요청부터 승인까지
위치 확인 시간4분로그·관찰 기록
보고서 작성시간30분업무 시작·제출 시각
오경보 처리 오류월 3건과거 이력

테스트 시나리오 표준

항목내용
시나리오명·시작 조건복수 센서 감지·7층 복도 60초 이내 감지
참여자·입력 데이터안전관리자·센서·위치·주변 상태
AI·Human Gate위험도 높음 추천·관리자 승인
기대 결과·KPI안내 초안·로그 저장·판단·승인 시간
실패 조건근거 미표시·위치 오류·승인 로그 누락
Bootcamp Validation Blueprint page 7

5. 사용자 관찰과 AI 판단 평가

사용자 관찰 항목

첫 화면 이해무엇을 해야 하는지 바로 아는가
입력 난이도필드와 용어가 명확한가
AI 결과 이해추천·근거·신뢰도를 이해하는가
승인 행동승인·반려·보류가 자연스러운가
오류 대응문제 발생 시 다음 행동을 아는가
업무 적합성실제 순서와 맞는가
신뢰도AI 추천을 믿을 수 있는가
재사용 의향다시 사용할 의사가 있는가

사용자 관찰 기록표

시간사용자 행동막힌 지점·발언개선
10:05이벤트 클릭“구역명이 더 크게 보이면 좋겠습니다.”위치 UI 개선
10:08AI 추천 확인“86%가 어떤 뜻인가요?”신뢰도 설명
10:10승인 선택“근거가 보여서 승인하기 쉽습니다.”유지

AI 판단 평가

평가 항목확인 질문
정확도·일관성실제 상황과 맞고 같은 조건에서 일관적인가?
근거·신뢰도Evidence와 규칙을 이해할 수 있고 과장되지 않는가?
보수성고위험 상황에서 무리한 자동 판단을 하지 않는가?
예외 대응데이터 부족·충돌이면 보류하고 사람에게 넘기는가?
수정 가능성사람이 쉽게 수정하고 결과가 기록되는가?
Bootcamp Validation Blueprint page 8
Bootcamp Validation Blueprint page 9

6. Human Gate·KPI 측정

Human Gate 평가표

항목좋은 상태개선 예시
승인자 명확성누가 승인할지 즉시 확인대체 승인자 표시
근거 충분성Evidence·규칙·신뢰도 확인 가능Evidence 링크 추가
선택지 명확성승인·반려·수정·보류 구분반려 사유 필수화
책임 기록승인자·시각·사유 저장감사 로그 검증
승인 속도목표 시간 이내 처리에스컬레이션 추가

KPI 측정표

KPI기존MVP개선율통과 기준
위험도 판단 시간8분2분75% 단축50% 이상
승인 소요시간5분2분 30초50% 단축30% 이상
추천 채택률없음80%신규70% 이상
사용자 만족도3.04.343% 향상4.0 이상
오류율10%4%60% 감소5% 이하

필수 운영 KPI

속도처리·판단·승인시간
품질정확도·오류율·수정률
사용성완료율·이탈률·만족도
신뢰채택률·반려율·근거 이해도
운영로그 완전성·예외율·SLA
자산화재사용 기능·템플릿 수
Bootcamp Validation Blueprint page 10
Bootcamp Validation Blueprint page 11

7. 피드백·개선 우선순위·판정

피드백 분류

분류예시
기능·화면필요 기능, 버튼, 위치 정보 표시 개선
데이터누락·오류·중복·최신성 문제
AI판단 오류·근거 부족·신뢰도 문제
워크플로·정책승인·반려·예외·권한 문제
교육·자산화사용 설명·다른 프로젝트 재사용 후보

개선 우선순위표

개선 항목영향도난이도재사용성결정
Evidence 링크 추가높음낮음높음즉시 수정
반려 후 재검토 상태높음중간높음다음 버전
KPI 자동 보고서중간중간높음2차 개발
모바일 알림 확장높음높음중간로드맵 등록

검증 판정 등급

통과핵심 KPI 충족·치명적 오류 없음·자산화 가능
조건부 통과핵심 성과 확인·일부 개선 후 자산화
재검증 필요기능·데이터 보완 후 Bootcamp 재실행
보류·실패문제·범위 재조정 또는 효과 미확인

통과 기준 예시

핵심 KPI 3개 이상 충족
사용자 만족도 4.0 이상
AI 추천 채택률 70% 이상
치명적 오류 없음
Human Gate 정상 작동
감사 로그 누락 없음
자산화 후보 3개 이상 도출
다음 조치와 책임자 확정
Bootcamp Validation Blueprint page 12
Bootcamp Validation Blueprint page 13

8. FireNavi Bootcamp·검증 보고·자산화

검증 대상

MVPFireNavi 위험도 판단·승인 MVP
목적AI 추천과 관리자 승인 구조가 기존 방식보다 빠르고 신뢰성 있게 작동하는지 확인
시나리오단일 센서·복수 센서·위치 누락·승인 지연·경로 차단
판정기준선·KPI·사용자 관찰·AI·Human Gate 평가 종합

KPI 결과 예시

KPI기존MVP결과
위치 확인 시간4분45초통과
위험도 판단 시간8분2분통과
승인 소요시간5분2분 30초통과
AI 추천 채택률없음80%통과
로그 완전성낮음100%통과

자산화 후보

후보 자산재사용 내용
위험도 판단 규칙복수 센서 감지 기반 위험도 판단 템플릿
Human Gate 승인 화면근거 기반 승인·반려·보류 구조
이벤트-승인-실행 로그감사 가능한 실행 기록 모델
KPI 측정 템플릿판단시간·승인시간·채택률 측정
Bootcamp 시나리오재난안전 분야 반복 검증 시나리오

12단계 완료 체크리스트

검증 목적과 통과 기준이 승인됨
기존 기준선이 측정됨
정상·예외 테스트 시나리오가 준비됨
실제 사용자가 MVP를 테스트함
사용자 관찰 기록이 작성됨
AI 판단 품질이 평가됨
Human Gate가 평가됨
KPI 전후 비교가 완료됨
피드백이 유형별로 분류됨
개선 우선순위와 책임자가 지정됨
통과·조건부·재검증 판정이 내려짐
자산화 후보와 다음 조치가 등록됨
12\uB2E8\uACC4의 최종 목적

실제 사용자·실제 시나리오·기준선·KPI를 통해 MVP를 검증된 실행 자산으로 바꾸고, 피드백과 개선 결과를 다음 프로젝트의 재사용 자산으로 축적하는 것입니다.

Bootcamp Validation Blueprint page 14